python vllm_test.py --tp 4 --model Qwen2.5-70B --test batch_3
